Óriási kockázatot vállal, aki vakon megbízik a mesterséges intelligenciában

Az emberek 75 százaléka használja egészségügyi kérdések értelmezéséhez a chatGPT-t, vagyis a nagy nyelvi modellen alapuló legismertebb generatív mesterséges intelligencia alkalmazást. A felmérésekből kiderül, hogy az AI válaszait csak a megkérdezettek 30-40 százaléka kezeli kritikusan, míg a legtöbben nem sejtik, hogy adott esetben a program helytelen információkkal szolgál.

Hasznos az AI, de félrevezethet

Ez nem feltétlenül az AI hibája, sok esetben a felhasználók megfogalmazása – a rossz kérdés vagy a kevés információ – miatt adhat rossz válaszokat a chatGPT. A Mandinernek nyilatkozó szakértők ezért óvatosságra intenek az olyan kritikus témák esetén, mint a jog vagy az egészségügy. Kérdésünkre kiemelték, 

Arra is felhívták a figyelmet, nincs teljesen megbízható AI-modell, a mesterséges intelligencia jelenleg még nem alkalmas arra, hogy a jogász vagy az orvos helyébe lépjen, noha a jövőben ez megváltozhat.

A chatGPT nem ügyvéd, csak úgy tesz

„Nagyon fontos, hogy a mesterséges intelligencia alapú alkalmazásokat komoly körültekintéssel használjuk és kezeljük, ugyanis akár az ingyenes, akár az előfizetéses verziók is jelentős hiányosságokat mutatnak. Az egyik veszélyes terület, amikor jogi tanácsadást várunk el tőlük, és vakon bízunk a kapott válaszban” – mutatott rá Szabó Imre Szilárd ügyvéd. 

A Munkástanácsok Országos Szövetségének ügyvezető alelnöke szerint a ChatGPT legfrissebb verziója már olyan hatalmas adathalmazokkal dolgozik, amelyek lehetővé teszi, hogy egyre pontosabb válaszokat és információkat gyűjtsön össze. Ezért az egyszerűbb és viszonylag könnyen kezelhető szituációkban megfelelő, logikus és kifejezetten értelmesnek tűnő válaszokat adhat, fokozatosan növelve a felhasználó bizalmát. 

A jogrendszer azonban olyan komplex, amelynek a teljes elemzésére, értelmezésére és a konkrét esetre vonatkozó helyes jogi tanácsadásra nem képes. 

„Ha szerencsénk van, legalább a releváns jogszabályokat megtalálja a rendszer, azonban az adott jogszabályon belül az utaló normákat, összefüggéseket, kivételeket, eltérési lehetőségeket, adott esetben háttérjogszabályokat vagy éppen az ítélkezési gyakorlatot már nem képes megfelelően kezelni. Fontos emellett, hogy nem csak a jogszabályokból, de más internetes forrásokból is keresnek információt, tehát akár nem megfelelően ellenőrzött, akár téves, hatálytalan megállapításokat tartalmazó cikkekből, blogbejegyzésekből is. Ez pedig szintén félrevezeti a felhasználót. Egyetemi oktatóként ezt egyre többször tapasztalom, különösen szakdolgozatok bírálata közben” – hívta fel a figyelmet Szabó Imre Szilárd.

Előfordulhat, hogy két különböző eszközön ugyanazt a kérdést feltéve eltérő tanácsokat kapunk. A szoftver ugyanis az adott beszélgetésen belül képes figyelembe venni a korábban feltett kérdéseket, ami nagyban segíti a válaszadást. A működést az teszi hatékonyabbá, hogy képes kezelni a beszélgetés során a felismert mintázatokat – tette hozzá az ügyvéd.

A mesterséges intelligencia nem látja a beteget

„E természetes korlátok viszik tévútra az orvoslásban is a chatGPT-t. Amikor valaki egy orvos rendelőjébe belép és a panaszairól beszél, az orvos nem csak arra figyel, amit a beteg tényszerű adatként közöl, a teljes vizsgálat alatt a pácienst egészében nézi” – magyarázta a Mandinernek Daróczy-Gaál Ágnes pszichiáter, jogász. 

– hangsúlyozta a szakember. A ChatGPT-t úgy alkották meg, hogy alapvetően felhasználóbarát legyen, de ne legyen a felhasználó számára túl sok. Ha a felhasználó beír egy tünetet, és megkérdezi, milyen betegségekre utalhat, a program válaszul felsorolja, mik a lehetőségek, azonban nem kezd el differenciáldiagnosztikai szempontból lényeges kérdéseket feltenni a tőle kérdező páciensnek. Mindössze elmondja, hogy a felsorolt tünetek milyen betegségekben szokott előfordulni. 

„Jómagam is tesztelgettem, konkrét páciensek által mutatott tünetekkel, kórlefolyással, vizsgálati eredményekkel, de a válaszai nem voltak konzisztensek. Ha a kérdezés során más tünetre helyeztem kissé nagyobb hangsúlyt, teljesen eltérő betegség irányába terelte a saját diagnózisalkotását” – részletezte saját példáján keresztül a generatív AI-vel kapcsolatos tapasztalatait Daróczy-Gaál Ágnes, aki ezért továbbra is azt tanácsolja, 

„Az átlagember számára csábító, hogy az orvossal való konzultáció megszervezése és kivárása helyett egy azonnali választ találjon a ChatGPT személyében a felmerülő egészségügyi kérdésekre, de alapszintű tájékozódásnál nagyobb fajsúlyú kérdésekben továbbra is azt tudom javasolni, mindenképpen szakemberhez forduljunk” – tette hozzá Daróczy-Gaál Ágnes.

Nyitókép: ANP MAG / ANP via AFP